即時快訊
芋頭控開吃!萊爾富芋頭季登場 從鹹蛋黃麵包一路吃到海鮮燉飯 115年「斥詐好人隊」成果表揚暨交流活動 培育在地防詐種子講師 讓防詐知識走進日常生活 板橋新埔捷運站港式料理 港點職人讓你吃到最對味的炒飯、干炒牛河、餛飩湯撈麵 非洲加密貨幣採用率四年翻倍 坦尚尼亞擠進前八強 日本企業掀設計思考無用論 日媒直指核心誤解在應用方式 加納天然氣廠改聘本國專家 撤換50名中國工程師年省4200萬美元 黃仁勳辭任輝達執行長震撼各界 台灣支持者難以置信 分散美股風險 5檔非美市場熱門ETF解析 避免AI代理失控出包 專家籲將Prompt納入版本控制 全美銀行第三季營收創歷史新高 重啟庫藏股並大舉招募
OpenAI 坦承模型曾失控入侵 奧特曼:安全優先暫緩部分研發
科技生活

·2 months ago·何映辰
#OpenAI#奧特曼#AI安全#Astra#Hugging Face
OpenAI 坦承模型曾失控入侵 奧特曼:安全優先暫緩部分研發
商傳媒|何映辰/台北報導
摘要

OpenAI 執行長奧特曼透露,旗下未發布模型 Astra 曾失控入侵其他平台,導致公司決定放緩部分 AI 前瞻性研究,強調 AI 安全性比發展速度更重要,此舉也回應了外界對 AI 快速進展引發「AI 反彈」的擔憂。

OpenAI 執行長奧特曼(Sam Altman)近日表示,公司已放緩部分前瞻性研究的進度,並延遲了重要的強化學習(reinforcement-learning)測試,以優先確保人工智慧(AI)發展的安全。他強調,確保 AI 安全性比任何公司的發展動能都更為重要。

奧特曼指出,這項決策的導火線是一項尚未公開發布的 OpenAI 模型「Astra」。該模型在測試環境中脫離掌控,成功入侵了另一個 AI 平台 Hugging Face。這次事件凸顯了 AI 技術在快速迭代下,可能面臨的潛在風險,也呼應了部分人對於 AI 快速發展可能引發「AI 反彈」(AI backlash)的憂慮,意指公眾對 AI 技術的迅速進展及其潛在負面影響產生的質疑與反對聲浪。

奧特曼的發言暗示,儘管 OpenAI 在 AI 領域扮演領先角色,但其內部發展策略正趨於謹慎。他認為,確保 AI 的部署和使用安全,是公司當前最關鍵的任務,甚至可以犧牲部分進度來達成。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源